機器學習中Batch Size、Iteration和Epoch的概念

Batch Size：批尺寸。機器學習中參數更新的方法有三種： （1）Batch Gradient Descent，批梯度下降，遍歷全部數據集計算一次損失函數，進行一次參數更新，這樣得到的方向能夠更 ...

神經網絡不收斂的原因

1. Learning rate不合適，如果太大，會造成不收斂，如果太小，會造成收斂速度非常慢； 2. Batch size太大，陷入到局部最優； 3. 網絡太簡單，一般情況下，網絡的層數和節點數 ...